हाल ही में, वीचैट ने एक घोषणा जारी की, जिसमें कहा गया कि प्लेटफ़ॉर्म के पारिस्थितिकी और उपयोगकर्ता अधिकारों की सुरक्षा के दौरान, उन्होंने विशेष रूप से एआई तकनीक का उपयोग करके प्रसिद्ध व्यक्तियों की नकली पहचान के माध्यम से अनुचित मार्केटिंग पर ध्यान केंद्रित किया है। एआई तकनीक के विकास के साथ, कुछ असामाजिक तत्व इन तकनीकी तरीकों का उपयोग कर प्रसिद्ध हस्तियों की पहचान बनाकर झूठी प्रचार और अनुचित मार्केटिंग कर रहे हैं, जिससे ऑनलाइन व्यवस्था को गंभीर नुकसान पहुंच रहा है। इस समस्या का सामना करने के लिए, वीचैट प्लेटफार्म ने उपयोगकर्ता रिपोर्ट, नियमित निगरानी और अन्य सूचनाओं के मेल से एक केंद्रित कार्रवाई शुरू की। नवीनतम आंकड़ों के अनुसार, पिछले एक महीने में, वीचैट प्लैटफ़ॉर्म ने पहले ही उच्च ...

डौइंग ग्रुप ने हाल ही में 2024 की लाइवस्ट्रीम गवर्नेंस रिपोर्ट जारी की है, जिसमें प्लेटफ़ॉर्म के लाइवस्ट्रीम क्षेत्र में गवर्नेंस के सिद्धांत, विधियों और परिणामों का संपूर्ण प्रदर्शन किया गया है। पिछले वर्ष में, डौइंग ने एक सुरक्षित, विश्वसनीय और सकारात्मक नेटवर्क लाइवस्ट्रीम वातावरण बनाने के लिए प्रयास किया, जिसमें एंकर प्रबंधन तंत्र को सुधारना, सामग्री पहचान तकनीक को मजबूत करना, ऑनलाइन-ऑफलाइन सहयोग गवर्नेंस और महत्वपूर्ण जनसंख्या संरक्षण जैसी उपायों के माध्यम से महत्वपूर्ण उपलब्धियां हासिल की हैं।

हाल ही में, इंटरनेट वॉच फाउंडेशन (IWF) ने चेतावनी दी है कि कृत्रिम बुद्धिमत्ता (एआई) द्वारा उत्पन्न बाल यौन शोषण चित्र (CSAM) खुले इंटरनेट पर तेजी से बढ़ रहे हैं और एक 'संकट बिंदु' पर पहुँच गए हैं। इस सुरक्षा पर्यवेक्षण एजेंसी ने कहा कि पिछले छह महीनों में, उन्होंने एआई द्वारा बनाए गए अवैध सामग्री की मात्रा पिछले वर्ष के कुल से अधिक पाई। चित्र स्रोत नोट: चित्र एआई द्वारा उत्पन्न, चित्र लाइसेंस सेवा प्रदाता मिडजर्नी। IWF के अस्थायी सीईओ डेरिक रे हील (Derek R)

बaidu बाईजिया हाओ ने "आत्म-मीडिया द्वारा एआई के उपयोग से अवैध सामग्री के प्रसार को रोकने के लिए एक घोषणा" प्रकाशित की है, जिसमें 489 अस्वीकृत खातों को निलंबित करने की बात कही गई है। हाल ही में बaidu बाईजिया हाओ ने पाया कि कुछ लेखकों ने एआईजीसी का उपयोग करके फर्जी समाचार आदि अवैध सामग्री का निर्माण किया है, जो उपयोगकर्ता अनुभव को गंभीर रूप से प्रभावित कर रहा है। इस घटना के संदर्भ में, बाईजिया हाओ प्लेटफार्म ने 15660 अवैध सामग्री को हटाया है और संबंधित अस्वीकृत खातों को 489 निलंबित किया है। अवैध आचरण में बिना योग्यता के झूठी समाचारों का प्रकाशन और झूठी अफवाहें फैलाना शामिल है। बaidu आत्म-मीडिया रचनाकारों से आग्रह करता है कि वे संबंधित सामग्री प्रकाशित करते समय सटीक रूप से लेबल करें।

मोर्स, सीजर और अन्य एन्क्रिप्शन पासवर्ड का उपयोग करके, GPT-4 से अवैध सामग्री के बारे में पूछ सकते हैं और उत्तर प्राप्त कर सकते हैं। शोध टीम ने दिखाया कि एन्क्रिप्शन पासवर्ड बड़े भाषा मॉडल की सुरक्षा तंत्र को बायपास कर सकते हैं और GPT-4 की शक्तिशाली क्षमताओं को प्रदर्शित किया। ओपन-सोर्स टूल CipherChat का उपयोग करके बड़े भाषा मॉडल के एन्क्रिप्शन पासवर्ड के खिलाफ सुरक्षा क्षमता का मूल्यांकन किया जा सकता है।